Библиотека Зареченского района открылась для читателей в 1954 году, а в 1959 году ей был присвоен статус городской массовой библиотеки № 3. Библиотека активно включилась в жизнь своего района. Большой вклад в развитие библиотеки внесли ее руководители – В. А. Чекалин (1954–1966), З. И. Кочеткова (1966–1975), Н. С. Локтионова (1976–2010) – лауреат городской премии «За большой вклад в развитие Тульских библиотек».

В 2009 году – году 55-летия со дня открытия – библиотеке присвоено имя знаменитого земляка, командира легендарного крейсера «Варяг», контр-адмирала Всеволода Федоровича Руднева.

В 2013 году библиотека-филиал № 3 объединена с библиотекой-филиалом № 12 и преобразована в модельную библиотеку. Библиотека № 12 являлась правопреемницей первой детской библиотеки города Тулы. Она была открыта 21 января (3 февраля) 1909 года в доме Василия Раева на Миллионной улице в Заречье. Инициатором ее устройства был А. Д. Ротницкий. Идею создания библиотеки для детей рабочего Заречья одобрил Л. Н. Толстой, передавший в ее фонд свои книги. С 1989 по 2013 гг. библиотекой руководила Гальфия Рафаэлевна Сергеева, лауреат премии «За большой вклад в развитие тульских библиотек».

Объединенный фонд библиотеки – 57796 экземпляров. Библиотека обслуживает около 10 тыс. пользователей, документовыдача – около 195 тыс. экземпляров.